행렬 대각화

행렬 대각화는 정사각행렬을 대각행렬과 닮음인 행렬로 분해하는 과정이다. 이때 행렬 A가 대각화 가능하다는 것은 A = PDP⁻¹를 만족하는 가역행렬 P와 대각행렬 D가 존재함을 의미한다. 여기서 P는 고유벡터를 열벡터로 가지는 행렬이며, D의 대각선상의 원소는 그에 대응하는 고유값이다.

행렬이 대각화 가능하기 위한 필요충분조건은 n차 정사각행렬이 n개의 일차독립인 고유벡터를 갖는 것이다. 이는 모든 고유값에 대하여, 그 고유값에 대한 기하적 중복도(해당 고유공간의 차원)가 대수적 중복도(특성방정식에서의 중근의 횟수)와 일치해야 함과 동치이다. 만약 행렬이 n개의 서로 다른 고유값을 가진다면, 이는 대각화 가능하기 위한 충분조건이 된다.

대각화 가능성은 선형변환의 분석을 크게 단순화한다. 대각행렬 D는 원래 행렬 A의 본질적인 스케일링 변환을 나타내며, 변환행렬 P는 그 작용이 일어나는 새로운 기저(고유벡터로 구성된 기저)를 의미한다. 따라서 복잡한 선형변환을 고유방향으로의 독립적인 신장 또는 수축으로 이해할 수 있게 해준다.

대각화 가능 행렬의 개념은 선형대수학의 핵심 도구로, 행렬의 거듭제곱 계산, 연립 미분방정식 풀이, 마르코프 과정 분석 등 다양한 분야에 응용된다.

행렬 대각화의 핵심은 고유값과 고유벡터에 있다. 주어진 정사각행렬 A에 대해, 0이 아닌 벡터 v와 스칼라 λ가 A v = λ v를 만족할 때, λ를 A의 고유값, v를 λ에 대응하는 고유벡터라고 정의한다. 이 관계는 행렬 A가 벡터 v의 방향은 유지한 채 길이(또는 부호)만 λ배로 변환한다는 의미를 지닌다.

행렬의 대각화 가능 여부는 바로 이 고유벡터들에 의해 결정된다. n x n 행렬 A가 대각화 가능하기 위한 필요충분조건은 A가 n개의 일차독립인 고유벡터를 갖는 것이다. 이 조건은 각 고유값의 기하적 중복도(해당 고유값에 대한 일차독립인 고유벡터의 개수)가 그 대수적 중복도(특성방정식에서 해당 고유값이 근으로 나타나는 횟수)와 일치할 때 성립한다.

고유값과 고유벡터는 특성방정식을 통해 구한다. 고유값 λ는 특성방정식 det(A - λI) = 0의 해이며, 각 고유값 λ_i를 얻은 후, 동차 선형 시스템 (A - λ_i I) v = 0을 풀어서 해당 고유값에 대응하는 고유벡터들을 찾는다. 서로 다른 고유값에 대응하는 고유벡터들은 항상 일차독립이라는 중요한 성질을 가진다.

이렇게 계산된 고유값과 고유벡터는 행렬 A를 A = P D P⁻¹ 형태로 분해하는 데 직접 사용된다. 여기서 대각행렬 D의 주대각선 성분은 고유값 λ_1, λ_2, ..., λ_n이 차례로 배치되고, 가역행렬 P의 각 열은 D의 해당 위치의 고유값에 대응하는 고유벡터로 구성된다. 이 분해는 행렬의 구조를 이해하고 복잡한 계산을 단순화하는 강력한 도구가 된다.

행렬이 대각화 가능하기 위한 충분조건은 여러 가지가 있다. 가장 기본적인 충분조건은 행렬이 서로 다른 고유값을 가질 때이다. 고유값이 모두 다르면, 각 고유값에 대응하는 고유벡터들은 일차독립이라는 성질이 보장된다. 따라서 n x n 행렬이 n개의 서로 다른 고유값을 가지면, n개의 일차독립인 고유벡터를 가지게 되어 대각화가 가능하다.

그러나 고유값이 중복되는 경우에도 대각화가 가능할 수 있다. 이 경우, 각 중복된 고유값에 대한 기하적 중복도가 그 대수적 중복도와 일치하는지 확인해야 한다. 즉, 특정 고유값 λ에 대해, 방정식 (A - λI)x = 0의 해 공간(고유공간)의 차원이 λ의 중복도와 같아야 한다. 모든 고유값에 대해 이 조건이 성립하면, 일차독립인 고유벡터를 충분한 개수만큼 모을 수 있어 대각화가 가능하다.

실수 대칭 행렬은 항상 대각화 가능하다는 강력한 충분조건이 있다. 더 나아가, 실수 대칭 행렬은 직교 행렬을 이용해 직교 대각화가 가능하다. 이는 스펙트럼 정리의 핵심 내용으로, 이차 형식의 표준화나 주성분 분석과 같은 응용 분야의 이론적 기초가 된다.

행렬을 대각화하는 첫 번째 단계는 고유값과 고유벡터를 계산하는 것이다. 주어진 정사각행렬 A에 대해, 고유값 λ는 특성방정식 det(A - λI) = 0을 풀어서 구한다. 여기서 I는 단위행렬이며, det는 행렬식을 의미한다. 이 특성방정식은 λ에 대한 n차 방정식이 되며, 이 방정식의 근이 행렬 A의 고유값이 된다.

각 고유값 λ_i를 구한 후에는, 해당 고유값에 대응하는 고유벡터를 찾아야 한다. 이는 동차 선형방정식 시스템 (A - λ_i I) x = 0의 영공간을 구하는 것과 같다. 이 방정식을 풀어 얻은 0이 아닌 해 벡터가 고유값 λ_i에 대한 고유벡터가 된다. 하나의 고유값에 대해 무수히 많은 고유벡터가 존재할 수 있으며, 이들은 일반적으로 하나의 벡터 공간을 형성한다.

모든 고유값과 그에 대응하는 고유벡터를 찾았다면, 대각화 가능 여부를 확인해야 한다. 행렬 A가 대각화 가능하기 위해서는 계산된 고유벡터들이 일차독립이어야 한다. 만약 중복된 고유값(중근)이 존재하는 경우, 그 고유값에 대한 고유벡터 공간의 차원이 중복도의 수와 일치하는지 확인하는 것이 중요하다. 이 조건이 충족되지 않으면 행렬은 대각화 불가능하며, 조르당 표준형을 고려해야 한다.

고유값과 고유벡터를 계산한 후, 이를 이용해 실제로 행렬을 대각화하는 구체적인 과정은 다음과 같다.

먼저, 구한 고유값 λ₁, λ₂, ..., λn을 이용해 대각 행렬 D를 구성한다. D의 주대각선 원소는 고유값들이 순서대로 배치되며, 나머지 원소는 모두 0이다. 각 고유값에 대응하는 고유벡터 v₁, v₂, ..., vn을 열벡터로 사용하여 변환 행렬 P를 만든다. 이때 고유벡터의 순서는 D에 배치한 고유값의 순서와 일치시켜야 한다. 최종적으로 원래 행렬 A는 A = PDP⁻¹의 형태로 분해되며, 여기서 P⁻¹는 P의 역행렬이다.

이 분해의 성공 여부는 P가 가역행렬이어야 한다는 점, 즉 P의 열벡터들이 일차독립이어야 한다는 조건에 달려 있다. 만약 행렬 A가 n개의 일차독립인 고유벡터를 가지면 이 조건을 만족하여 대각화가 가능하다. 구성된 P와 D를 검증하는 방법은 AP = PD가 성립하는지 직접 계산해 보는 것이다. 이 등식이 성립하면 고유값과 고유벡터의 계산 및 배열이 정확했음을 확인할 수 있다.

이렇게 구성된 A = PDP⁻¹ 관계는 행렬의 닮음을 나타내며, A와 D는 닮음행렬이 된다. 이는 선형변환의 관점에서, 서로 다른 기저에 대해 표현된 동일한 변환을 보여주는 것에 해당한다.

행렬 대각화의 가장 강력한 응용 중 하나는 행렬의 거듭제곱을 효율적으로 계산하는 것이다. 일반적으로 큰 행렬의 높은 거듭제곱을 직접 계산하는 것은 매우 복잡하고 계산량이 많다. 그러나 행렬이 대각화 가능하여 A = PDP⁻¹ 형태로 분해되면, 거듭제곱 계산이 극적으로 단순해진다.

이 방법의 핵심은 A의 k제곱을 계산할 때, A^k = (PDP⁻¹)^k = PD^kP⁻¹가 성립한다는 점이다. 여기서 D는 대각 행렬이므로 D^k는 단순히 각 대각 성분(즉, 고유값)을 k제곱한 것으로 쉽게 구할 수 있다. 따라서 복잡한 행렬 곱셈 대신 고유값의 거듭제곱과 두 번의 행렬 곱셈(P와 P⁻¹)만으로 결과를 얻을 수 있다.

이 기법은 마르코프 연쇄에서 상태 전이 확률을 예측하거나, 그래프 이론에서 인접 행렬의 거듭제곱을 통해 경로의 수를 분석하는 등 다양한 분야에서 유용하게 쓰인다. 또한 선형 점화식을 행렬 형태로 표현한 후 그 해를 구하는 데에도 적용될 수 있다.

행렬 대각화는 연립 상미분 방정식의 해를 체계적으로 구하는 데 유용하게 활용된다. 특히 계수 행렬이 대각화 가능 행렬인 경우, 해를 명시적인 형태로 표현할 수 있다.

예를 들어, 미지함수 벡터 x(t)에 대한 1계 선형 연립 미분방정식 x' = Ax가 주어졌을 때, 행렬 A가 대각화 가능하다면 A = PDP⁻¹로 분해할 수 있다. 여기서 D는 고유값으로 이루어진 대각행렬이다. 새로운 변수 y = P⁻¹x를 도입하면, 원래의 연립방정식은 y' = Dy라는 훨씬 간단한 형태로 변환된다. 이 새로운 시스템은 각 방정식이 서로 분리되어 있어, 각 성분별로 독립적으로 해를 구할 수 있다.

이 과정을 통해 얻은 y(t)의 해를 다시 역변환 x(t) = Py(t)로 되돌리면, 원래 시스템의 일반해를 얻는다. 이 일반해는 시스템의 고유벡터와 고유값으로 구성되며, 시스템의 장기적 거동을 분석하는 데 결정적인 역할을 한다. 이 방법은 공학, 물리학, 특히 동역학 시스템 분석에서 널리 사용된다.

이차 형식은 변수의 제곱과 곱으로 이루어진 동차 다항식이다. 행렬 대각화는 이러한 이차 형식을 더 간단한 형태, 즉 교차항이 없는 표준형으로 변환하는 데 핵심적인 역할을 한다.

이차 형식은 일반적으로 대칭 행렬 A와 연관되어 q(x) = x^T A x 형태로 표현된다. 여기서 x는 변수로 이루어진 열벡터이다. 이 대칭 행렬 A는 항상 직교 대각화가 가능하며, 이는 A = P D P^T (여기서 P는 직교 행렬, D는 대각 행렬)로 분해될 수 있음을 의미한다. 이 분해를 이용하여 새로운 좌표 y = P^T x를 도입하면, 원래의 이차 형식은 q(x) = y^T D y = λ₁y₁² + λ₂y₂² + ... + λ_ny_n² 와 같은 간단한 제곱합의 형태로 표준화된다. 여기서 λ_i는 행렬 A의 고유값이다.

이 표준화 과정은 기하학적 분석에 매우 유용하다. 예를 들어, 원뿔 곡선이나 이차 곡면의 방정식을 연구할 때, 이차 형식을 표준형으로 변환하면 회전된 좌표계에서 곡선이나 곡면의 형태(타원, 쌍곡선, 포물선 등)와 주축의 방향을 명확히 파악할 수 있다. 또한, 최적화 문제에서 목적함수가 이차 형식일 때, 고유값의 부호를 통해 함수의 정부호성을 판단하여 극점의 성질을 분석하는 데 활용된다.

직교 대각화는 대각화의 특별한 경우로, 정사각행렬이 직교행렬을 이용하여 대각화되는 과정을 의미한다. 이는 행렬 A가 A = PDP^T의 형태로 분해될 수 있음을 뜻하며, 여기서 P는 직교행렬이고 D는 대각행렬이다. 이 조건은 P의 역행렬이 P의 전치행렬과 같다는 점에서 일반적인 대각화보다 더 강한 제약을 가진다.

직교 대각화가 가능하기 위한 핵심 조건은 행렬이 대칭행렬이어야 한다는 것이다. 즉, 실수 성분을 가진 대칭행렬은 항상 직교 대각화가 가능하다. 이는 중요한 정리로, 대칭행렬의 고유값은 모두 실수이며, 서로 다른 고유값에 대응하는 고유벡터들은 서로 직교한다는 성질에 기반한다. 따라서 이러한 직교하는 고유벡터들을 정규화하여 열로 배열하면 직교행렬 P를 구성할 수 있다.

이 개념은 이차 형식의 표준화, 주성분 분석과 같은 통계학 기법, 그리고 공학 및 물리학에서 텐서의 주축 변환 등 다양한 분야에 응용된다. 직교 변환은 벡터의 길이와 각도를 보존하므로, 기하학적 구조를 유지하면서 문제를 단순화하는 데 매우 유용하다.

모든 정사각행렬이 대각화 가능한 것은 아니다. 행렬이 대각화되기 위해서는 n개의 일차독립인 고유벡터를 가져야 한다. 그러나 중복된 고유값(중복도가 1보다 큰 고유값)이 존재하고, 그에 해당하는 고유공간의 차원이 그 중복도보다 작은 경우, 즉 기하적 중복도가 대수적 중복도보다 작은 경우 충분한 수의 일차독립 고유벡터를 찾을 수 없어 대각화가 불가능하다.

이러한 대각화 불가능한 행렬을 다루기 위한 강력한 도구가 조르당 표준형이다. 조르당 표준형은 주어진 행렬을 가능한 한 대각행렬에 가깝게 만든 블록 대각 행렬 형태로, 각 블록은 조르당 블록이라 불리는 특수한 형태를 가진다. 각 조르당 블록의 주대각선에는 하나의 고유값이 위치하고, 그 바로 위의 대각선(초대각선)에는 1이 배치된다. 이는 대각화가 불가능한 행렬을 대각행렬과 멱영 행렬의 합으로 이해하는 관점과도 연결된다.

조르당 표준형을 구하는 일반적인 과정은 먼저 행렬의 모든 고유값과 그에 대한 고유벡터를 찾는 것으로 시작한다. 고유벡터가 부족한 경우, 일반화 고유벡터를 계산하여 고유벡터 체인을 구성한다. 이 체인을 열로 가지는 변환 행렬 S를 만들면, 원래 행렬 A는 S⁻¹AS = J 형태로 조르당 표준형 J와 닮음이 된다. 조르당 표준형은 선형 변환의 구조를 명확히 보여주며, 행렬 함수나 미분 방정식 시스템을 풀 때 유용하게 적용된다.

특이값 분해는 행렬을 대각 행렬과 두 개의 직교 행렬 또는 유니타리 행렬의 곱으로 분해하는 방법이다. 행렬 대각화가 정사각행렬에만 적용되고 고유값과 고유벡터의 존재에 의존하는 반면, 특이값 분해는 임의의 직사각행렬에도 적용할 수 있다는 점에서 더 일반적인 분해 기법이다.

임의의 m×n 크기의 실수 또는 복소수 행렬 A는 다음과 같이 분해된다.

A = UΣV*

여기서 U는 m×m 직교(또는 유니타리) 행렬, Σ는 m×n 크기의 대각 행렬(주대각선 원소가 특이값), V*는 n×n 직교(또는 유니타리) 행렬 V의 켤레 전치 행렬이다. Σ의 대각선상의 비음수 실수인 특이값들은 행렬 A*A 또는 AA*의 고유값의 제곱근과 같다.

특이값 분해는 수치 선형대수, 데이터 압축, 주성분 분석 등 다양한 분야에서 핵심적으로 활용된다. 예를 들어, 이미지 처리에서 낮은 랭크 근사를 통해 데이터를 압축하거나, 추천 시스템에서 사용자-항목 행렬을 분석하는 데 사용된다. 또한, 유사 역행렬을 계산하거나 선형 최소 제곱법 문제를 푸는 데에도 적용된다.